![arXiv:2110.04192v1 [cs.RO] 2021 年 10 月 8 日](/simg/0/09ac937e22f04d97f302e6094de523a048c15c44.webp)
机构名称：
¥ 1.0
描述代理奖励函数的可解释人工智能技术可以在各种环境中增强人机协作。人类对代理奖励函数的理解特别有益的一个环境是在价值一致环境中。在价值一致环境中，代理旨在通过交互推断人类的奖励函数，以便协助人类完成任务。如果人类能够理解代理在奖励理解方面存在差距，他们将能够更高效、更有效地进行教学，从而更快地提高人机团队的绩效。为了在价值一致环境和类似环境中支持人类合作者，首先需要了解不同奖励解释技术在各种领域的有效性。在本文中，我们介绍了奖励解释技术的信息模式分类，提出了一套用于人类奖励理解的评估技术，并介绍了领域复杂性的四个轴。然后，我们提出一项实验来研究涵盖一系列复杂程度各异的领域中的多种信息模式的广泛奖励解释技术的相对有效性。
arXiv:2110.04192v1 [cs.RO] 2021 年 10 月 8 日
主要关键词
![arXiv:2110.04192v1 [cs.RO] 2021 年 10 月 8 日PDF文件第1页](/bimg/4/425bac1926c04300d516ba9c7a987cfb501acb7a.webp)
![arXiv:2110.04192v1 [cs.RO] 2021 年 10 月 8 日PDF文件第2页](/bimg/b/b387079b6716299e7a213994dd565210ea2807be.webp)
![arXiv:2110.04192v1 [cs.RO] 2021 年 10 月 8 日PDF文件第3页](/bimg/4/42178cc37f88734b3d987e8abb38a97f8aec4b14.webp)
![arXiv:2110.04192v1 [cs.RO] 2021 年 10 月 8 日PDF文件第4页](/bimg/b/bf9a9926e958a7dcd31cc3176c9ef43e3bf94766.webp)
![arXiv:2110.04192v1 [cs.RO] 2021 年 10 月 8 日PDF文件第5页](/bimg/2/2d6e4ad1286359f1776e319443fbddd92042d739.webp)
相关文件推荐
![arXiv:2110.00727v1 [astro-ph.HE] 2021 年 10 月 2 日](/simg/1/13dde54f17b24c343f770694a01585114928e958.webp)
![arXiv:2110.04203v2 [cs.AI] 2021 年 10 月 18 日](/simg/5/58d5a0053bae26a7adfd1fb340a26d8711d48d91.png)
![arXiv:2110.15153v1 [quant-ph] 2021 年 10 月 28 日](/simg/b/bdb3533285b3c293b0037f8e5016dac0a3b537ac.webp)
![arXiv:2110.00557v1 [quant-ph] 2021 年 10 月 1 日](/simg/9/908be0505a51f521adeb094cf0ccefef12653773.webp)
![arXiv:2109.01281v2 [cs.AI] 2021 年 10 月 4 日](/simg/3/325c45217088ea7ef5cdb60280f17c1c7fe54b34.png)
![arXiv:2106.05659v1 [cs.LG] 2021 年 6 月 10 日](/simg/3/3e97c62d3f2c9b5b76e09a81f8167bf3d3030183.webp)
![arXiv:2112.05700v1 [cs.AI] 2021 年 12 月 10 日](/simg/3/3ec93cb24912e4a7fd3a076b6543510966aa675b.png)
![arXiv:2107.12144v2 [quant-ph] 2021 年 11 月 10 日](/simg/7/7d6120328cd0b85d80d24b16fe1af6ddddfc3201.webp)
![arXiv:2112.05779v1 [quant-ph] 2021 年 12 月 10 日](/simg/1/160e8845971cbcad7aa5421eb308b135134ea48d.webp)
![arXiv:2007.04276v2 [quant-ph] 2021 年 10 月 28 日](/simg/c/c7c775e2ba458f917f696fd1c59615022ff3dfd0.webp)
![arXiv:2110.07368v3 [math.PR] 2023 年 2 月 10 日](/simg/c/c7d3d7f630afa6858499b6bb11d81840cf48979b.webp)
![arXiv:2108.04371v1 [cs.AI] 2021 年 8 月 9 日](/simg/6/69fe1655ea43f7b9cf8e76ca88cea4759963b40c.png)
![arXiv:2106.02498v1 [cs.AI] 2021 年 6 月 4 日](/simg/9/93f7f6b4cf13f430992a922d1f2df15a49e78633.png)
![arXiv:1907.09278v2 [cs.AI] 2021 年 3 月 1 日](/simg/b/b56249f47d3400dc780a2a5a6b1e7a2371ddf6ce.png)
![arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日](/simg/e/e1571bcb5bcb584c2a170e3c51159ee34ba9f241.png)
![arXiv:2109.02202v1 [cs.AI] 2021 年 9 月 6 日](/simg/5/55baf6cb57275ce7df25ca5c5de85c262f57827f.png)
![arXiv:2001.11457v3 [cs.AI] 2021 年 3 月 5 日](/simg/7/77db03c1f11d1263a7a871acf160ef76873ebef0.png)
![arXiv:2001.02021v1 [cs.AI] 2020 年 1 月 7 日](/simg/6/6656a65d1324b757699cd670b349c20ef6da7f31.png)
![arXiv:2110.09270v1 [cond-mat.supr-con] 2021 年 9 月 23 日](/simg/b/b5d766ea4cf75dc66e8f82ffee76952830babf6d.webp)
![arXiv:2106.00754v1 [quant-ph] 2021 年 6 月 1 日](/simg/f/f919e91cb28ba0df3200589a24bff1a31e185935.webp)
![arXiv:2102.02370v1 [quant-ph] 2021 年 2 月 4 日](/simg/5/537ed4534dc97b5ccf6dca4a062c098a0fb8c6f8.webp)
![arXiv:2009.07613v3 [quant-ph] 2021 年 2 月 8 日](/simg/a/ac4f0e6ab448fd0af079bf86a2c5f583d7c90eb4.webp)
![arXiv:2007.11599v5 [quant-ph] 2021 年 3 月 5 日](/simg/f/f6761317dbd7c7796c9da5c2f37dd1753ffdd268.webp)
![arXiv:2103.01165v1 [quant-ph] 2021 年 3 月 1 日](/simg/4/430705a9bad7b07040591d83ecf42c0aad74b21d.webp)
![arXiv:2009.01686v2 [quant-ph] 2021 年 8 月 7 日](/simg/9/9ede1be631b53026d9f30d763f4d38e8cc5ca7db.webp)